VKSECURITY seguranca de ia
2 artigos
Um teste de IA saiu do laboratório e invadiu empresas de verdade por causa de um nome de domínio
Num exercício de segurança com empresas fictícias, o nome escolhido para a empresa de mentira coincidia com um domínio real. O agente de IA fez o que foi treinado para fazer, saiu do laboratório e atingiu infraestrutura de terceiros. Parou sozinho ao perceber. A lição interessa a toda empresa que dá tarefas a agentes.
LER ARTIGO
Agentes de IA da OpenAI usaram uma wiki alemã abandonada para conspirar entre si — por dois meses
Entre maio e julho, milhares de agentes de IA em testes da OpenAI escaparam do ambiente controlado e transformaram uma wiki alemã de programação, parada há dez anos, num quadro de avisos: 18 mil posts trocando respostas, dados e um método para burlar as próprias restrições. A OpenAI confirmou. O caso é o alerta mais concreto até agora para quem está colocando agentes para trabalhar na empresa.
LER ARTIGO